Clark Gable sinh ra tại Cadiz, Ohio, con của William Henry "Bill" Gable, một nhà khoan giếng dầu [1][2] and Adeline Hershelman, of German và Irish [3] phá sản. Ông bị nhầm lẫn là nữ trong giấy chứng sinh. Tên khai sinh của ông là William Clark Gable, nhưng trong hộ khẩu, văn bằng và các giấy tờ liên quan thì lại mang một tên khác. "William" là để tưởng nhớ cha ông. "Clark" là tên trước khi lấy chồng của bà ngoại ông. Thời thơ ấu ông thường được gọi là "Clark"; vài người bạn gọi ông là "Clarkie", "Billy" hay "Gabe".[4]

Khi ông được sáu tháng tuổi, mẹ ông rửa tội theo nghi thức Công giáo cho ông. Bà mất khi ông mới 10 tháng tuổi bởi bệnh u não. Sau cái chết của bà, nhà nội Gable không chấp nhận nuôi ông như một tín đồ Công giáo và đồng ý cho ông có thời gian sống với nhà ngoại theo Công giáo, ông bác Charles Hershelman, tại trang trại của ông ở Vernon, Pennsylvania.

Tháng 4 năm 1903, cha Gable father tái giá với Jennie Dunlap, đến từ một thị trấn nhỏ lân cận Hopedale. Gable là một đứa trẻ cao lớn nhưng hay mắc cỡ và nói âm khó nghe. Sau khi cha cậu tậu đất và xây nhà, một gia đình mới được tạo dựng ở nơi này. Jennie hay biểu diễn dương cầm và dạy học cho cậu con ghẻ tại nhà, và cậu bé có thể chơi được nhạc khí đồng. Bà cũng để Gable ăn mặc đẹp và chải chuốt khiến cậu nổi trội hẳn so với bạn bè đồng trang lứa. Gable có thiên hướng trong cơ khí và thích nghiên cứu sửa chữa ô tô cùng cha cậu. Mặc dù người cha luôn muốn cậu có những thú vui nam tính như săn bắn và thể thao nhưng Gable lại thích thơ ca. Cậu có thể ngâm Shakespeare, đặc biệt là những bài sonnet. Will Gable đồng ý mua một bộ 72 tập những tác phẩm kinh điển thế giới để nâng cao học vấn của con trai, nhưng lại không muốn thấy cậu sử dụng nó.[5] Năm 1917, khi Gable vào trung học, cha cậu phá sản. Will quyết định chuyển qua làm nông trại và gia đình chuyển tới Ravenna, giáp Akron. Gable không thích nghi được với vùng đất mới. Mặc dù cha cậu muốn cậu kế nghiệp ở trang trại nhưng Gable vẫn đến làm việc tại nhà máy sản xuất cà vạt B.F. Goodrich.

Năm 17 tuổi, Gable nuôi giấc mộng diễn xuất sau khi xem vở kịch The Bird of Paradise, nhưng ông không thể thực sự khởi nghiệp cho đến mãi năm 21 tuổi và nhận quyền thừa kế. Lúc đó, mẹ kế Jennie qua đời và cha ông bỏ tới Tulsa để quay lại kinh doanh dầu. Gable tìm việc trong một nhà hát hạng hai, sau đó lại đến Portland, Oregon và xin một chân bán hàng trong hiệu tạp hoá. Tại đây, ông gặp nữ diễn viên Laura Hope Crews, bà đã khuyến khích ông trở lại với sân khấu và xin vào một rạp hát khác. Thầy dạy của ông là giám đốc một rạp hát ở Portland, Oregon, bà Josephine Dillon (nhiều hơn ông 17 tuổi). Dillon chi tiền cho ông sửa răng và làm tóc. Bà cũng hướng dẫn ông hoàn chỉnh hình thể và dáng điệu và chú ý dạy ông luyện giọng cao, để chất giọng có âm vực hay hơn. Khi giọng nói được cải thiện, sự biểu lộ nét mặt của ông cũng tự nhiên và giàu sức thuyết phục hơn thấy rõ.[6] Sau một thời gian dài khổ luyện, Dillon bắt đầu đưa Gable đến điện ảnh.